AI Papers Daily

#prompt compression

4 篇

Control Under Compression: Reliability Frontiers for Tool-Using Agents

压缩下的控制：工具型代理的可靠性前沿

🧭 Agent控制上下文压缩下的可靠性前沿 ★ 深度解读

Imperial College London

代理控制上下文压缩存在非线性可靠性前沿，环境执行验证揭示从近全保留到脆弱的三个区域

📌 工作参考价值（4 点）

• 代理系统指令压缩优先采用按节选方式（如工具、策略、规划各节），保留原始顺序与完整语义单元，比通用 LLM 改写或标记级压缩更可靠。
• 引入义务感知压缩（OAC）：自动提取前置条件、参数约束、策略等关键义务，根据依赖闭包选择保留内容，提供可行性与保留率信号，帮助在压缩前判断是否进入高危区间。
• 压缩评估不能只看语义相似度或标记减少量，必须在确定性执行环境中验证工具执行成功率和动作解析正确率，重点监控工具执行错误和解析失败模式。
• 没有全局最优压缩比，需按具体上下文做压缩可靠性认证，建议从 75% 中等预算开始，逐步压测找到业务可接受的操作边界。

Agent | 2026-08-02 | cs.AI | score 8/10

LLM agentsprompt compressiontool usereliabilityevaluationAgentOps

Lost in Compression: A Controlled Cross-Lingual Audit of Extractive Prompt Compressors

压缩中迷失：抽取式提示压缩器的跨语言受控审计

🧭 跨语言提示压缩审计 · 多语言安全预算

Hostinger · Kaunas University of Technology

英语训练的抽取式提示压缩器在非英语语言上大幅失效，安全压缩预算远小于英语

📌 工作参考价值（4 点）

• 在多语言电商/搜索场景中，不要直接使用英语训练的抽取式压缩器处理非英语上下文；对非英语语言采用更保守的 keep-rate（如 ≥0.5）或改用确定性方法作为安全基线。
• 可以借鉴 translate-then-compress 管道：将非英语上下文先翻译成英语再压缩，在三个语言上以约一半 token 成本达到或超过原生压缩效果，适合以英语为中心的模型生态。
• 评估压缩器时需用目标模型 tokenizer 做预算匹配，并在上线前监控压缩后的 context utilization；警惕学习压缩器版本更新（如 XProvence v2）静默清空非英语语境。
• 自研多语言压缩器时，训练数据的语言覆盖是跨语言迁移的关键，而非模型架构；多语言监督数据能有效消除转移差距。

LLM | 2026-07-26 | HF Daily | score 7/10

prompt compressioncross-lingualLLM inferencemultilingualcontext utilizationevaluation

Prompt Compression via Activation Aggregation

通过激活聚合进行提示压缩

🧭 LLM 推理效率 · 激活压缩与重用

Freie Universität Berlin

将固定指令提示压缩为单个激活向量并注入 LLM 早期层，准确率下降小于 2%

📌 工作参考价值（4 点）

• 在电商搜索、推荐场景中，常用固定指令模板（如意图分类、商品属性抽取）可预计算压缩向量，跳过重复的 token 处理，显著降低线上推理延迟与计算成本。
• 多步 Agent 系统若共享同一系统提示，可将其压缩后注入各子任务，加速整体响应。
• 压缩器训练离线完成，不影响在线推理，且 patch 维度可调，便于在精度与效率之间做工程权衡。
• 方法依赖对目标 LLM 中间层激活的加权求和，需冻结模型并在特定任务上微调压缩器，适合指令固定、调用量大的场景。

LLM | 2026-07-09 | cs.CL | score 6/10

prompt compressionactivation aggregationLLM inferenceefficiencycross-layer injection

Entropy Gate: Entropy Quenching for Near-Lossless Token Compression in LLM Pipelines

熵门控：LLM管线中近乎无损的令牌压缩熵淬灭技术

🧭 LLM推理优化 · 提示令牌压缩 ★ 深度解读

Kwame Nkrumah University of Science and Technology

提出基于熵淬灭的多因子信息能量令牌压缩框架，结合保真门与能量平方放大，实现40-60%压缩且语义保持>0.80

📌 工作参考价值（5 点）

• 令牌重要性建模：多因子能量（统计+结构+位置）及自校准域能量可迁移至电商搜索/推荐场景，对商品描述、用户查询进行关键令牌保留，压缩冗余而不丢失实体词。
• 能量平方放大技巧：通过能量平方拉伸分布右尾，放大信噪比，使得高信息令牌更易被保留。可应用于任何基于分数排序的文本压缩或关键信息提取任务。
• 复合压缩策略：上下文去重结合外部记忆，实现88-96%的令牌削减。在Agent多轮对话或商品信息重复出现的场景中，可借鉴“记忆+淬灭”乘法组合，极大降低推理成本。
• 输出侧淬灭：利用模型回复信息密度低的特点，以更激进的压缩率减少回复长度。可在生成式推荐或对话式导购中压缩冗长回应，兼顾准确性与效率。
• 保真门机制：以能量加权相似度作为无模型推理的语义保留指标，为压缩提供数学保证。可引入任何压缩流程作为安全阀，确保任务关键信息不丢失。

LLM | 2026-06-02 | cs.CL | score 8/10

entropy quenchingtoken compressionprompt compressionfidelity gateagentic workflowsenergy-squared amplification